Năm 1471, vua Lê Thánh Tông thân chinh cầm quân đánh Chăm Pa đến tận đèo Cả. Tuy nhiên sau đó Lê Thánh Tông chỉ sáp nhập vùng đất từ đèo Hải Vân tới đèo Cù Mông (phía bắc Phú Yên) vào lãnh thổ Đại Việt. Vùng đất Phú Yên vẫn thuộc quyền quản lý của Chăm Pa với tên gọi Ayaru.

Từ năm 1570, Nguyễn Hoàng là trấn thủ vùng Thuận Hóa và Quảng Nam của Đại Việt. Năm 1578 ông sai tướng dưới quyền Lương Văn Chánh tấn công vào thành Hồ, là thủ phủ của Chăm Pa tại vùng Ayaru (Phú Yên), thành Hồ bị thất thủ, từ đó vùng đất Ayaru là nơi tranh chấp thường xuyên giữa người Việt và người Chăm. Theo chính sách của chúa Nguyễn ông đã chiêu tập và đưa lưu dân từ các vùng Thanh - Nghệ, Thuận - Quảng vào đây để khẩn hoang lập ấp, tạo dựng cơ nghiệp.

Năm 1611, Nguyễn Hoàng sai viên tướng dưới quyền là Văn Phong tấn công vào Aryaru, Chăm Pa thất bại. Nguyễn Hoàng sáp nhập Ayaru vào lãnh thổ Đàng Trong với tên gọi Phú Yên và giao cho Văn Phong cai quản đất Phú Yên. Tên gọi nầy do chúa Nguyền Hoàng đặt với ước nguyện về một miến đất trù phú, thanh bình trong tương lai.

Tới năm 1629, Văn Phong chống lại chính quyền Đàng Trong, lúc này Nguyễn Hoàng đã chết, người nối nghiệp là Nguyễn Phúc Nguyên đã sai tướng Nguyễn Phúc Vinh vào đánh dẹp. Sau khi đánh bại được Văn Phong, Phúc Vinh được giao cai quản đất Phú Yên

Với một vị trí chiến lược quan trọng, vào thế kỷ 18 Phú Yên là nơi đối đầu quyết liệt giữa nhà Tây Sơn và nhà Nguyễn; nơi Nguyễn Huệ, vào tháng 7 năm 1775, đã đánh bại 2 vạn quân ngũ dinh (Bình Khang, Bình Thuận, Trấn Biên, Phiên Trấn và Long Hồ) của Tống Phước Hiệp.

Năm Minh Mạng thứ 13, tại Gia Định Thành 1832, vua đã lập 12 tỉnh phía Nam đèo Hải Vân, trong đó có Phú Yên.

Năm 1954, Phú Yên chịu sự quản lý của Việt Nam Cộng Hoà.

Năm 1976, sau khi thống nhất đất nước, Phú Yên nằm trong địa phận tỉnh Phú Khánh.

Ngày 1 tháng 7 năm 1989, tỉnh Phú Yên được tái lập và tồn tại cho đến ngày nay. Khi tách ra, tỉnh Phú Yên có 7 đơn vị hành chính gồm thị xã Tuy Hòa và 6 huyện: Đồng Xuân, Sơn Hòa, Sông Cầu, Sông Hinh, Tuy An, Tuy Hòa.

Ngày 4 tháng 3 năm 2002, chia thị xã Tuy Hòa thành thị xã Tuy Hòa và huyện Phú Hòa.[4]

Ngày 5 tháng 1 năm 2005, chuyển thị xã Tuy Hòa thành thành phố Tuy Hòa.[5]

Ngày 16 tháng 5 năm 2005, chia huyện Tuy Hòa thành 2 huyện: Đông Hòa và Tây Hòa.[6]

Ngày 27 tháng 8 năm 2009, chuyển huyện Sông Cầu thành thị xã Sông Cầu.[7]

Ngày 11 tháng 3 năm 2013, thành phố Tuy Hòa được công nhận là đô thị loại II trực thuộc tỉnh Phú Yên.[8]

Ngày 4 tháng 3 năm 2019, Bộ Xây dựng quyết định công nhận thị xã Sông Cầu là đô thị loại III.[9]

Ngày 22 tháng 4 năm 2020, chuyển huyện Đông Hòa thành thị xã Đông Hòa.[10]

Tỉnh Phú Yên có 1 thành phố, 2 thị xã và 6 huyện như hiện nay.